“从上面我讲的这个例子中我们可以发现，这台强大的人工智能并没有理解为什么要制作回形针，它只是执行小女孩下达的命令。”
“这台人工智能也没有理解，什么样的回形针才是人类要求标准下所需要的。当我们给人工智能下达命令的时候，我们会发现，人工智能根本没有人类的道德情感。”
“人工智能可以通过学习来提高能力，但是，也仅仅是学习、分析、存储。人工智能把学习数据化、程序化、标准化。它们并没有从真正意义上理解人类的道德情感，就像那一台强大的人工智能没有理解为什么要制作回形针。”
“它没有理解什么样的回形针是人类所需要的。小女孩想要回形针来做手工，她并不需要原子排列成的回形针，更不需要自己被做成回形针。人都没了，还要回形针做什么，对吧？”
“但是，这种情况也不是说完全没有解决办法。”
“科学家可以通过给人工智能大量的案例进行学习，来使人工智能‘理解’人类的道德情感。比如，科学家让人工智能学习一个案例：消防员冲进火场，去救一个小男孩。人工智能会学习到了这样的知识：对于消防员来说，小男孩的生命很重要。人工智能可能并没有完全理解消防员为什么要冲进火场去救小男孩。但是，它至少明白了，当发生火灾时，小男孩需要被救。”
“人工智能通过学习这样类似的大量案例，也可能会达到人类道德要求的标准。”
“但是，人工智能终究没有脑子。没有像动物、人类一样的大脑。它们和我们的身体构造并不一样，所以，我们并不能知道它理解了什么。”
“所以，人工智能可能和我们的目标并不一样。”
“尽管结果可能都相同，但是它可能用了一种让我们难以接受的方法去达到这个结果。所以，一台比我们的运算能力更加强大、没有身体硬件的限制、不受我们控制的人工智能是人类的威胁。”
“如果一台目标与你的目标不一致的机器令你感受到的威胁，那么，狭义地来说，令你感受到威胁的、令你担忧的正是它的目标，而不是它拥有意识或体验到了意志。因为你根本不知道它要做什么、它的目标是什么。”
“所以，对于我们人类来说，我们并不需要担心人工智能是否突然有了邪恶的意识，因为我们无能为力，也无从得知。”
麦克斯教授把控制器往讲台上一扔，转身面向听众。
“人类能控制老虎，并不是因为我们比老虎强壮，而是因为我们比老虎聪明。这意味着，如果我们不再是地球上最聪明的存在，那么……我们也有可能失去控制权。”
就在这时，台下的一位男生举起了手：
“麦克斯教授，您觉得这个世界上有信息态生命吗，它们是否会对我们构成威胁？”
听到男生的问题，台下众人哄堂大笑。
“好家伙，信息态生命，玄幻小说看多了吧！”
“我知道我知道，系统流是不是？”
“兄弟，你昨天晚上熬夜读小说了吧！”
“哈哈哈哈……”
麦克斯教授沉默了一下，伸出手示意了一下，台下的众人立马安静下来。
“信息态生命吗……它们或许真的存在，但它们的动机不是我们人类所能理解的。因为它们没有人脑，身体构造与我们不一样，就像二维生物不能理解三维生物一样。”
“那……教授，我们是三维生物，那信息态生命不就是四维生物了？它们对我们岂不是能够构成毁灭性的威胁？”
“呵呵，”听到男生这么问，麦克斯教授笑了一下，“就像我之前讲的，这位同学，你或许犯了人类中心主义，它们与我们都不是一类生物，你怎么能肯定它们对毁灭人类这件事感兴趣呢？”
“那……”男生尴尬地挠了挠头，“那，教授，如果它们真的对毁灭人类这件事感兴趣，我们岂不是没有活路？”
麦克斯教授的身体顿了一下，眉头挑了挑，把屏幕控制器随手扔到讲桌上。
“不好说，或许我们有活路。因为，我们宇宙中的生命的最终极限取决于物理定律，而不取决于智能。一台人工智能就算再厉害，它也强不过我们臆想中的那种超越物理定义的神。或许存在比信息态生命更高级的生命呢？你怎么知道信息态生命的存活不受任何的威胁？”
“教授……难道你信神吗？”男生有些不解。
“神？”，麦克斯教授拿起杯子喝了一口水，“这要看你怎么定义神了，我认为神可能是一种高级到我们无法想象的生物，正因为我们对它们的无知才产生了神的概念，不是吗？”
麦克斯教授转身面向同学们，双手一摊，“有人说，科学的尽头是玄学。但我认为，玄学是未曾被我们理解的科学。人家牛顿晚年还信神呢，说不定神真的存在呢？”
“下课。”
场下的听众全部迅速起身，掌声雷动，麦克斯教授向台下微笑致意。
他走下讲台后就立马被被热情的学生团团围住，只得一个个地回答学生们的问题。
其中一个戴着帽子的男生见状，立马也围了上去。他双手拢在嘴边，朝着麦克斯教授大喊一声：“老师！”
听到这一声喊，围住麦克斯教授的学生都停了下来，不约而同地向那个男生看去。
“咦？他是……”
“他不是那个……”
麦克斯教授看到戴帽子的男生，挥了挥手。
“到我办公室里说。”
围观点学生们眼睁睁地看着戴帽子的男生和麦克斯教授一起走掉，谁也没有阻拦。
“他难道就是钱齐辰？！”
“那个天才小哥哥？！”人群中突然有人惊呼。
“他是谁啊，你们怎么这么惊讶？”有一个男生憨憨地问道。
“真是孤陋寡闻！钱齐辰你都不知道！”女生们一脸嫌弃。
“他是我大风国的天才人工智能研究学者，18岁的时候就因为指出我国网络安全的一个重大漏洞而被提名院士了！”
“钱齐辰觉得自己才疏学浅、资历不够，于是拒绝了。人家18岁都提名院士了，你18岁那年还在被窝里半夜打游戏呢！”
“而且，最厉害的是，钱齐辰是麦克斯教授唯一的关门弟子！”
“麦克斯教授那是谁？全球最顶尖的人工智能专家之一！你看看，你有什么理由不知道他！”
“……”
…………
麦克斯教授回到办公室，往椅子上一坐，身子立马瘫了下来。
“呼……”
钱齐辰把办公室门关上，给麦克斯教授泡了一杯茶，然后恭敬地坐在他面前的椅子上。
“教授，我收到了……”
“那个团队的邀请，是吧？”麦克斯教授打断了钱齐辰的话，紧紧盯着他的眼睛。
钱齐辰被麦克斯教授的目光看得有点心虚，低下了头，“……是。”
麦克斯教授叹了一口气，把椅子转向窗户。他看着窗外被风吹动的树叶，看着阳光通过树叶的光滑叶面投射在窗户玻璃上的婆娑光影，思绪万千。
他猜的没错，他的弟子钱齐辰，也收到了那个团队的加入邀请。
那个自称为“火种”的团队，在一年前成立了一家公司，名为“诸神科技”。
这个不知道从哪里冒出来的公司竟然发行了一款划时代的开放世界游戏《世界 TheWorld》，游戏一上线就引爆了全球。
在一年之内，这个公司迅速壮大，竟然进入了世界前五百强。
“其实，我之前也被这个团队邀请了，但是我拒绝了。”
麦克斯教授转过椅子，望向钱齐辰说道。
“这个团队，有顶级的物理学家、化学家、生物学家，还有顶级的计算机专家和神经科学家，对了，好像还有法学家。我就一直在想，为什么他们要邀请我这个人工智能研究专家？是图我的名气吗，好像不是。”
“我有一种预感——我才是他们所最需要的。我猜测他们之前所做的一切，都是为了找一个人工智能专家做铺垫。”
“我怀疑，他们正在开发一种通用人工智能，而且正在用这个人工智能谋取财富。”
“比如说……《世界 TheWorld》。”
我转生成了一周年限定BOSS提示您：看后求收藏（卧龙小说网http://www.wolongxs.com），接着再看更方便。
好书推荐：《原神，我喜欢失败的第一步》、《我转生就超神》、《这游戏也太真实了》、《全服最强的女玩家被我秒了》、《我变成了游戏宠物？狐娘？！》、《崩坏之卡斯兰娜》、
